Powell sinh ngày 4 tháng 2 năm 1953 tại Washington, D.C., là một trong sáu người con của Patricia (nhũ danh Hayden; 1926–2010)[6] và Jerome Powell (1921–2007),[7] một luật sư hành nghề tư và một cựu chiến binh trong Thế chiến II (phục vụ với Tiểu đoàn pháo binh dã chiến 160 của Lục quân Hoa Kỳ thuộc Sư đoàn 45 tại Pháp và Đức).[8][9] Ông ngoại của ông, James J. Hayden, là Trưởng khoa Luật của Đại học Công giáo Columbus tại Hoa Kỳ và sau đó là giảng viên tại Trường Luật Georgetown.[10] Ông có năm anh chị em, Susan, Matthew, Tia, Libby và Monica.[8]

Năm 1972, Powell tốt nghiệp Trường dự bị Georgetown, Trường dự bị đại học Dòng Tên. Ông đã nhận được cử nhân trong chính trị từ Đại học Princeton năm 1975, nơi luận án cao cấp của ông có tựa đề " Nam Phi: Lực lượng thay đổi ."[11] Năm 1975-76, ông dành một năm làm trợ lý lập pháp cho Thượng nghị sĩ Pennsylvania Richard Schweiker (R).[12][13]

Powell đã lấy bằng tiến sỹ luật từ Trung tâm Luật Đại học Georgetown năm 1979, nơi ông là tổng biên tập của Georgetown Law Journal.[14]